Haji Abdullah Tahir menyertai Persatuan Islam Se-Tanah Melayu (PAS) pada 1954. Sebelum menyertai PAS. beliau terlibat dalam sebuah muzakarah bersama-sama Naib Yang Dipertua Agung PAS, Tuan Guru Haji Hussein Che Dol pada 8 September 1952 yang membincangkan perihal dasar dan tujuan PAS. Muzakarah tersebut telah membawa kepada penerangan tentang PAS di Pasir Puteh dan Pasir Mas pada 9 hingga 11 September 1952 sehingga tertubuhnya PAS Cawangan Pasir Mas pada 23 Julai 1953. Pada 14 April 1954, PAS telah mengadakan gerakan mengembangkan PAS di Kelantan dengan menghantar Ustaz Othman Abdullah dan Mohd Asri Haji Muda, Haji Abdullah Tahir telah menyertai PAS, sekali gus membolehkan PAS Cawangan Kota Bharu ditubuhkan pada 18 November 1954.

Pondoknya sebagai tempat bermesyuarat

Pada 26-28 Disember 1955, Madrasah Ahmadiyah Bunut Payung telah menjadi tuan rumah kepada Mesyuarat Agung Tahunan PAS Keempat. Penganjuran mesyuarat tersebut telah menyebabkan penyertaan beliau dalam PAS diketahui oleh sebilangan ulama di Malaysia, dan telah menarik para ulama menyertai PAS. Antaranya, Tuan Guru Haji Ghani Kubang Bemban, Tuan Guru Haji Mustafa Pasir Tumbuh, Tuan Guru Haji Mat Zain Kemudi, Tuan Guru Haji Mat Tubuh Beris, Tuan Guru Haji Mat Bakok Kenali, Tuan Guru Haji Harun Sulong, Tuan Guru Haji Daud Meranti, Tuan Guru Haji Awang Padang, Tuan Guru Haji Aziz Pasir Tumbuh dan Tuan Guru Haji Yakub Berangan. Ekoran ramainya ulamak yang mengikuti jejak langkah beliau bersama PAS, rakyat turut memberi sokongan kepada PAS sehingga dapat menguasai Kelantan pada 1959.

Legasi

Adik beliau, Tuan Guru Haji Mokhtar Ahmad juga merupakan seorang ulama dan tokoh dalam PAS. Menantu beliau, Tuan Guru Haji Hussein Rahimi Mat Saman ialah bekas Ketua Dewan Ulamak PAS Pusat, manakala tokoh murabbi PAS, Dato' Ustaz Yahya Othman merupakan cucu menantu beliau.